Sau khi thi đỗ Hoàng Giáp, trước sau chỉ giữ một chức quan bậc trung, tính tình cương trực, điềm đạm và sống liêm khiết. Đời vua Thiệu Trị, khi đang làm quan Ngự sử, ông nhiều lần can gián triều đình, ra sức can ngăn việc đem quân đi lấn chiếm, đề nghị cho bãi binh để quân sĩ được nghỉ ngơi, phục hồi sức lực. Nhà vua phải nghe.

Thấy các sứ bộ ta được phái sang nhà Thanh thường được giao nhiệm vụ mua hàng hóa xa xỉ cho triều đình nên các quan chức thường lợi dụng để buôn bán, ông đề nghị nhà vua chỉ nên mua những thứ có nhu cầu thiết thực, còn những thứ xa xỉ khác xin bỏ bớt để tiết kiệm ngân khố. Việc này thì Thiệu Trị phật ý không nghe. Vì thế ông bị nhiều người ghen ghét, nhất là các quan chức ngoại giao.[1]

Bạch Đông Ôn sống rất giản dị, thanh đạm. Thường ngày chỉ ăn cơm rau dưa, cà ghém. Uống rượu thường chỉ thích nhắm với lạc rang. Khi đi thanh tra các tỉnh miền Bắc để xem xét việc quan tham ô lại, ông tỏ thái độ công bằng, có công thì thưởng, có tội thì phạt, không ăn của hối lộ đút lót.

Năm 1847, khi đang làm Lang trung bộ Lễ, vì bị ốm, ông dâng sớ xin nghỉ về quê chữa bệnh. Vua Thiệu Trị vốn không ưa gì con người cương trực thẳng thắn ấy, nên nổi giận, cho rằng ông thoái thác việc triều đình, giáng chức ông xuống làm Chủ sự, rồi bắt phải "về hưu non" khi ông mới 36 tuổi.[2] Ông nghỉ hưu ở phố Hàng Đào, Hà Nội làm nghề dạy học, lúc rỗi ông chỉ uống rượu ngâm thơ để làm vui.

Với cuộc sống đời thường, ông cũng hết sức đạm bạc, thích uống rượu với ngô rang, cơm ăn chỉ có tương cà, dưa mắm. Bạn bè và học trò cũ của ông thấy vậy đem tiền bạc đến biếu, ông nhất định không nghe, ai biếu rượu thì ông nhận. Sau có người bạn bỏ bạc nén vào hũ rượu rồi cho người nhà mang đến biếu, ông uống hết rượu thấy có bạc trong hũ liền mang trả cả hũ lẫn bạc.

Khi quân Pháp xâm lược, ông cùng một số sĩ phu có tư tưởng tiến bộ đứng vào hàng ngũ "Tân đảng", với mục đích duy tân cứu quốc. Ông vẫn là một nhà nho sáng suốt trong khi phần đông sĩ phu còn chìm đắm trong lối học cũ. Nguyễn Tư Giản và các đồng chí trong "Tân đảng" rất mến mộ tài năng và kiến thức của ông ví ông như Đào Tĩnh Tiết (tức Đào Tiềm), có phẩm cách cao khiết.

Khi Pháp đánh chiếm Bắc Kỳ, ông cùng một số sĩ phu mưu tính khởi nghĩa, nhưng việc bại lộ, bị giặc bắt.[3] Được tha về, ông chán nản, quay lại cuộc sống ẩn dật. Khi Bạch Đông Ôn mất (1881), vua Tự Đức có viếng bốn chữ "Thanh bạch vi thủ" (Thanh bạch làm đầu) và truy tặng sắc: "Diên thọ quận công".[1][2]